Понятия со словосочетанием «метод наименьших квадратов»
Метод наименьших квадратов (МНК) — математический метод, применяемый для решения различных задач, основанный на минимизации суммы квадратов отклонений некоторых функций от искомых переменных. Он может использоваться для «решения» переопределенных систем уравнений (когда количество уравнений превышает количество неизвестных), для поиска решения в случае обычных (не переопределенных) нелинейных систем уравнений, для аппроксимации точечных значений некоторой функции. МНК является одним из базовых методов...
Двухшаговый метод наименьших квадратов (Двухшаговый МНК, ДМНК,TSLS, 2SLS — англ. Two-Stage Least Squares ) — метод оценки параметров эконометрических моделей, в частности систем одновременных уравнений, состоящий из двух этапов (шагов), на каждом из которых применяется метод наименьших квадратов.
Связанные понятия
Стохастическая аппроксимация — рекуррентный метод построения состоятельной последовательности оценок решений уравнений регрессии и экстремумов функций регрессии в задачах непараметрического оценивания. В биологии, химии, медицине используется для анализа результатов опытов. В теории автоматического управления применяется как средство решения задач распознавания, идентификации, обучения и адаптации.
Многоме́рное норма́льное распределе́ние (или многоме́рное га́уссовское распределе́ние) в теории вероятностей — это обобщение одномерного нормального распределения. Случайный вектор, имеющий многомерное нормальное распределение, называется гауссовским вектором.
Скорость сходимости является основной характеристикой численных методов решения уравнений и оптимизации.
Ковариацио́нная ма́трица (или ма́трица ковариа́ций) в теории вероятностей — это матрица, составленная из попарных ковариаций элементов одного или двух случайных векторов.
Вне́шне несвя́занные уравне́ния (англ. Seemingly Unrelated Regressions (SUR)) — система эконометрических уравнений, каждое из которых является самостоятельным уравнением со своей зависимой и объясняющими экзогенными переменными. Модель предложена Зельнером в 1968 году. Важной особенностью данных уравнений является то, что несмотря на кажущуюся несвязанность уравнений их случайные ошибки предполагаются коррелированными между собой.
Информационное неравенство (математическая статистика) — неравенство для несмещённой оценки с локально минимальной дисперсией, задающее нижнюю границу для величины дисперсии этой оценки. Играет важную роль в теории асимптотически эффективных оценок.
Кванти́ли распределе́ния хи-квадра́т — числовые характеристики, широко используемые в задачах математической статистики таких как построение доверительных интервалов, проверка статистических гипотез и непараметрическое оценивание.
Элементарные функции — функции, которые можно получить с помощью конечного числа арифметических действий и композиций из следующих основных элементарных функций...
Теорема об огибающей (англ. envelope theorem) — результат о дифференцируемости целевой функции в оптимизационных задачах с параметром. Теорема гласит, что при варьировании значения параметра, изменение целевой функции (в определённом смысле) не обусловлено изменением оптимума. Теорема важна для сравнительной статики в оптимизационных моделях.
В статистике, дельта-методом называется результат, описывающий вероятностное распределение функции от асимптотически нормальной статистической оценки при известной асимптотической дисперсии этой оценки.
Подробнее: Дельта-метод
Автокорреляция — статистическая взаимосвязь между последовательностями величин одного ряда, взятыми со сдвигом, например, для случайного процесса — со сдвигом по времени.
Ковариа́ция (корреляционный момент, ковариационный момент) — в теории вероятностей и математической статистике мера линейной зависимости двух случайных величин.
Интеграл Лебе́га — это обобщение интеграла Римана на более широкий класс функций.
Стандартные ошибки в форме Уайта или состоятельные при гетероскедастичности стандартные ошибки (HC s.e. — Heteroskedasticity consistent standard errors) — применяемая в эконометрике оценка ковариационной матрицы (в частности и стандартных ошибок) МНК-оценок параметров линейной модели регрессии, которая состоятельна при гетероскедастичности случайных ошибок модели, альтернативная стандартной (классической) оценке, которая в данном случае является несостоятельной.
Характеристи́ческая фу́нкция случа́йной величины́ — один из способов задания распределения. Характеристические функции могут быть удобнее в тех случаях, когда, например, плотность или функция распределения имеют очень сложный вид. Также характеристические функции являются удобным инструментом для изучения вопросов слабой сходимости (сходимости по распределению). В теорию характеристических функций внесли большой вклад Ю.В. Линник, И.В. Островский, С.Р. Рао, Б. Рамачандран.
Теорема Хольмгрена — теорема о единственности решения задачи Коши для дифференциального уравнения с частными производными в случае аналитичности коэффициентов дифференциального оператора.
Точное нахождение первообразной (или интеграла) произвольных функций — процедура более сложная, чем «дифференцирование», то есть нахождение производной. Зачастую, выразить интеграл в элементарных функциях невозможно.
Подробнее: Методы интегрирования
Логарифмическое распределение в теории вероятностей — класс дискретных распределений. Логарифмическое распределение используется в различных приложениях, включая математическую генетику и физику.
Ме́тод обра́тного преобразова́ния (Преобразование Н. В. Смирнова) — способ генерации случайных величин с заданной функцией распределения, путём модификации работы генератора равномерно распределённых чисел.
Важнейшими с точки зрения приложений характеристических функций к выводу асимптотических формул теории вероятностей являются две предельные теоремы — прямая и обратная. Эти теоремы устанавливают, что соответствие, существующее между функциями распределения и характеристическими функциями, не только взаимно однозначно, но и непрерывно.
Подробнее: Прямая и обратная предельная теорема
Формула Вика — формула теории вероятностей, выражающая математическое ожидание многочлена от координат гауссовского вектора через элементы матрицы ковариаций. Одним из её применений является связь между средним значением полинома от следов степеней случайной матрицы большого размера и родами поверхностей, получаемыми склейкой заданных многоугольников при различных отождествлениях сторон.
В математике линейным приближением, или линейной аппроксимацией, называют приближение произвольной функции с помощью линейной функции. Применяется для приближенных расчетов и в методе конечных разностей для решения дифференциальных уравнений.
Подробнее: Линейное приближение
Теоре́ма Лебе́га о мажори́руемой сходи́мости в функциональном анализе, теории вероятностей и смежных дисциплинах — это теорема, утверждающая, что если сходящаяся почти всюду последовательность измеримых функций может быть ограничена по модулю сверху интегрируемой функцией, то все члены последовательности, а также предельная функция тоже интегрируемы. Более того, интеграл последовательности сходится к интегралу её предела.
Быстрые алгоритмы — это область вычислительной математики, которая изучает алгоритмы вычисления заданной функции с заданной точностью с использованием как можно меньшего числа битовых операций.
Сходи́мость по ме́ре (по вероя́тности) в функциональном анализе, теории вероятностей и смежных дисциплинах — это вид сходимости измеримых функций (случайных величин), заданных на пространстве с мерой (вероятностном пространстве).
Фундаментальное решение линейного дифференциального оператора L или, эквивалентно, соответствующего ему линейного уравнения в частных производных — математическое понятие, обобщающее идею функции Грина для дифференциальных операторов, без связи с какой-либо областью и граничными условиями.
Нера́венство Ма́ркова в теории вероятностей даёт оценку вероятности, что случайная величина превзойдёт по модулю фиксированную положительную константу, в терминах её математического ожидания. Хотя получаемая оценка обычно груба, она позволяет получить определённое представление о распределении, когда последнее не известно явным образом.
Теорема о разностях — теорема, связывающая понятия производной и прямой конечной разности высших порядков для степенной функции натурального показателя степени.
Теорема Пайерлса — теорема квантовой статистической физики. Сформулирована и доказана Рудольфом Пайерлсом в 1930 году.
Со́бственный ве́ктор — понятие в линейной алгебре, определяемое для произвольного линейного оператора как ненулевой вектор, применение к которому оператора даёт коллинеарный вектор — тот же вектор, умноженный на некоторое скалярное значение. Скаляр, на который умножается собственный вектор под действием оператора, называется собственным числом (или собственным значением) линейного оператора, соответствующим данному собственному вектору. Одним из представлений линейного оператора является квадратная...
Линейно-квадратичный регулятор (англ. Linear quadratic regulator, LQR) — в теории управления один из видов оптимальных регуляторов, использующий квадратичный функционал качества. Задача, в которой динамическая система описывается линейными дифференциальными уравнениями, а показатель качества представляет собой квадратичный функционал, называется задачей линейно-квадратичного управления. Широкое распространение получили линейно-квадратичные регуляторы (LQR) и линейно-квадратичные гауссовы регуляторы...
В математике (общей алгебре) многочлен от нескольких переменных над полем называется гармоническим, если лапласиан этого многочлена равен нулю.
Подробнее: Гармонический многочлен
Биномиальное преобразование — последовательность преобразований или же преобразование последовательности, которая вычисляет её конечные разности. Понятие биномиального преобразования тесно связано с преобразованием Эйлера, которое является результатом применения биномиального преобразования к последовательности.
Критерий Лиувилля — Мордухай-Болтовского — критерий существования решения в обобщенных квадратурах линейного однородного обыкновенного дифференциального уравнения произвольного порядка.
Функция концентрации (англ. concentration function) в теории вероятностей — одна из характеристик случайной величины. Функции концентрации используются в ряде задач теории вероятностей, в частности, при исследовании свойств свёрток распределений и предельных свойств сумм независимых случайных величин.
Интегра́льное уравне́ние — функциональное уравнение, содержащее интегральное преобразование над неизвестной функцией. Если интегральное уравнение содержит также производные от неизвестной функции, то говорят об интегро-дифференциальном уравнении.
В статистике метод оценки с помощью апостериорного максимума (MAP) тесно связан с методом максимального правдоподобия (ML), но дополнительно при оптимизации использует априорное распределение величины, которую оценивает.
Подробнее: Оценка апостериорного максимума
Теорема о монотонной сходимости (теорема Беппо́ Ле́ви) — это теорема из теории интегрирования Лебега, имеющая фундаментальное значение для функционального анализа и теории вероятностей, где служит инструментом для доказательства многих положений. Даёт одно из условий при которых можно переходить к пределу под знаком интеграла Лебега, теорема позволяет доказать существование суммируемого предела у некоторых ограниченных функциональных последовательностей.